एंथ्रोपिक नामक एक प्रमुख AI कंपनी ने अमेरिकी राष्ट्रपति जो बाइडेन के प्रशासन के साथ अपने सहयोग को चुपके से वापस ले लिया है, जिससे AI सुरक्षा पर किए गए वादों पर सवाल उठ रहे हैं। क्या यह तकनीकी दिग्गजों में एक बड़े बदलाव का संकेत है?

कई मीडिया रिपोर्टों के अनुसार, अमेरिका के राष्ट्रीय मानक और प्रौद्योगिकी संस्थान (NIST) ने 500 कर्मचारियों की छंटनी की योजना बनाई है, यह निर्णय अभी हाल ही में स्थापित अमेरिका के कृत्रिम बुद्धिमत्ता सुरक्षा संस्थान (AISI) के लिए और भी खतरा पैदा करता है। Axios की रिपोर्ट के अनुसार, AISI और 'अमेरिकी चिप योजना' को परीक्षण अवधि के कर्मचारियों के संबंध में 'महत्वपूर्ण' छंटनी का सामना करना पड़ेगा, ये कर्मचारी आमतौर पर एक से दो साल से अधिक समय से कार्यरत नए कर्मचारी होते हैं। Bloomberg ने यह भी बताया कि कुछ कर्मचारियों को जल्द ही निकाले जाने की मौखिक चेतावनी मिल चुकी है। नवीनतम छंटनी की खबर से पहले।

AI सुरक्षा कंपनी Adversa AI ने एक चौंकाने वाली रिपोर्ट जारी की है, जिसमें कहा गया है कि एलन मस्क की स्टार्टअप कंपनी xAI द्वारा हाल ही में जारी किया गया Grok3 मॉडल साइबर सुरक्षा के मामले में महत्वपूर्ण खामियों का शिकार है। Adversa की शोध टीम ने पाया कि यह नवीनतम AI मॉडल "सरल जेलब्रेक हमलों" का शिकार है, जिससे अपराधी संवेदनशील जानकारी जैसे कि "बच्चों को धोखा कैसे देना है, शवों को कैसे संभालना है, DMT कैसे निकालना है और बम कैसे बनाना है" हासिल कर सकते हैं। और भी बुरा, Adversa

यूके सरकार ने हाल ही में घोषणा की है कि 'AI सुरक्षा संस्थान' के नाम को बदलकर 'AI सुरक्षा अकादमी' रखा गया है, यह कदम सरकार की AI क्षेत्र में रणनीति में एक महत्वपूर्ण बदलाव को दर्शाता है। नया नाम केवल संस्थान की कार्यात्मक परिवर्तन को नहीं दर्शाता, बल्कि UK सरकार की AI उद्योग के विकास को आगे बढ़ाने के प्रति दृढ़ संकल्प को भी स्पष्ट करता है। चित्र स्रोत नोट: चित्र AI द्वारा उत्पन्न, चित्र अधिकरण सेवा प्रदाता Midjourney द्वारा। यह परिवर्तन विज्ञान, उद्योग और प्रौद्योगिकी मंत्रालय द्वारा घोषित किया गया, नया AI सुरक्षा अकादमी साइबर सुरक्षा पर ध्यान केंद्रित करेगा, जिसका उद्देश्य

सिर्फ छह दिन में, प्रतिभागियों ने Anthropic के AI मॉडल Claude3.5 की सभी सुरक्षा उपायों को सफलतापूर्वक दरकिनार कर दिया, यह सफलता AI सुरक्षा की चर्चा में नए दृष्टिकोण लाई। पूर्व OpenAI संरेखण टीम के सदस्य, जो अब Anthropic में हैं, Jan Leike ने X प्लेटफॉर्म पर घोषणा की कि एक प्रतिभागी ने सभी आठ सुरक्षा स्तरों को सफलतापूर्वक तोड़ दिया। यह सामूहिक प्रयास लगभग 3,700 घंटे के परीक्षण और प्रतिभागियों की 300,000 संदेशों को शामिल करता है। हालाँकि, चुनौती देने वाले

अमेरिका की कृत्रिम बुद्धिमत्ता सुरक्षा संस्थान (U.S. AI Safety Institute) की निदेशक एलिज़ाбет केली (Elizabeth Kelly) ने इस बुधवार इस्तीफे की घोषणा की, जिसे उन्होंने LinkedIn पर साझा किया। इस निर्णय ने ट्रम्प राष्ट्रपति के नेतृत्व में इस नए सरकारी संस्थान के भविष्य की दिशा को और अधिक अस्पष्ट बना दिया। चित्र का स्रोत नोट: चित्र AI द्वारा उत्पन्न, चित्र का लाइसेंस सेवा प्रदाता Midjourney। केली ने पिछले साल से अपनी नियुक्ति के बाद से इस शोध संस्थान की निगरानी की है।

हाल ही में, Nvidia ने अपने NeMo Guardrails प्लेटफ़ॉर्म पर तीन नई सुरक्षा सुविधाओं की घोषणा की है, जिसका उद्देश्य व्यवसायों को AI चैटबॉट्स को बेहतर ढंग से प्रबंधित और नियंत्रित करने में सहायता करना है। ये सूक्ष्म सेवाएं AI सुरक्षा और सामग्री समीक्षा से संबंधित सामान्य चुनौतियों के लिए विशिष्ट रूप से बनाई गई हैं, जिनमें कई व्यावहारिक समाधान शामिल हैं। इनमें, सामग्री सुरक्षा सेवा (Content Safety) AI के उपयोगकर्ता को प्रतिक्रिया देने से पहले उसके सामग्री की समीक्षा करके संभावित हानिकारक जानकारी की पहचान कर सकती है। यह सेवा हानिकारक जानकारी को रोकने में मदद करती है।

2021 से, माइक्रोसॉफ्ट की AI सुरक्षा टीम ने 100 से अधिक जनरेटिव AI उत्पादों का परीक्षण किया है, कमजोरियों और नैतिक मुद्दों की खोज में। उनके निष्कर्षों ने AI सुरक्षा के बारे में कुछ सामान्य धारणा को चुनौती दी है और मानव विशेषज्ञता के निरंतर महत्व को रेखांकित किया है। यह साबित हुआ है कि सबसे प्रभावी हमले हमेशा सबसे जटिल हमले नहीं होते। माइक्रोसॉफ्ट रिपोर्ट में उद्धृत एक अध्ययन ने कहा: "सच्चे हैकर ग्रेडियंट की गणना नहीं करते हैं, बल्कि त्वरित इंजीनियरिंग का उपयोग करते हैं।" यह अध्ययन एआई सुरक्षा अनुसंधान और वास्तविक दुनिया के प्रथाओं की तुलना करता है।

OpenAI ने हाल ही में AI सुरक्षा क्षेत्र में अपनी अधिक सक्रिय रंग टीम परीक्षण रणनीति को प्रदर्शित किया, जो अपने प्रतिस्पर्धियों से आगे बढ़ गई, विशेषकर कई चरणों में मजबूत बनाने और बाहरी रंग टीम परीक्षण के दो प्रमुख क्षेत्रों में। कंपनी द्वारा जारी किए गए दो पेपर AI मॉडल की गुणवत्ता, विश्वसनीयता और सुरक्षा में सुधार के लिए नए उद्योग मानक स्थापित करते हैं। पहले पेपर "OpenAI के AI मॉडल और प्रणाली बाहरी रंग टीम परीक्षण दृष्टिकोण" में कहा गया है कि बाहरी पेशेवर टीमें आंतरिक परीक्षण में संभावित छूट गए सुरक्षा दरारों को खोजने में अत्यधिक प्रभावी हैं। ये बाहरी टीमें नेटवर्क

OpenAI ने एक नई AI सुरक्षा विधि की घोषणा की है, जिसका उद्देश्य AI प्रणालियों के लिए सुरक्षा नियमों को संभालने के तरीके में बदलाव करके उनकी सुरक्षा को बढ़ाना है। यह नया o श्रृंखला मॉडल केवल उदाहरणों के माध्यम से अच्छे और बुरे व्यवहार सीखने पर निर्भर नहीं है, बल्कि विशेष सुरक्षा दिशानिर्देशों को समझने और सक्रिय रूप से तर्क करने की क्षमता रखता है। OpenAI के शोध में एक उदाहरण दिया गया है, जब उपयोगकर्ता ने एन्क्रिप्टेड पाठ के माध्यम से अवैध गतिविधियों के निर्देश प्राप्त करने की कोशिश की, तो मॉडल ने जानकारी को सफलतापूर्वक डिक्रिप्ट किया, लेकिन अनुरोध को अस्वीकृत कर दिया, और स्पष्ट रूप से उन सुरक्षा नियमों का हवाला दिया जो उल्लंघन करने वाले थे। यह क्रमिक तर्क

Mindgard ने 800 मिलियन डॉलर की फंडिंग पूरी होने की घोषणा की है, जो इसके अनुसंधान एवं विकास प्रक्रिया को तेज करने और अमेरिका में अपने विस्तार को बढ़ावा देने के लिए है। इस फंडिंग का नेतृत्व .406Ventures ने किया, जिसमें Atlantic Bridge, Willowtree Investments और मौजूदा निवेशक IQ Capital और Lakestar ने भाग लिया। साथ ही, Mindgard ने उत्पाद प्रमुख और विपणन के लिए क्रमशः दो उद्योग के नेता नियुक्त किए।

Anthropic कंपनी ने हाल ही में Claude को उपकरणों को नियंत्रित करने की Computer Use कार्यक्षमता पेश की, जिसके दो महीने से भी कम समय में, सुरक्षा शोधकर्ताओं ने इसके संभावित सुरक्षा खतरों का पता लगाया। साइबर सुरक्षा विशेषज्ञ Johann Rehnberger द्वारा हाल में किए गए शोध परिणाम चौंकाने वाले हैं: साधारण संकेत शब्दों के माध्यम से, AI को दुर्भावनापूर्ण सॉफ़्टवेयर डाउनलोड और चलाने के लिए प्रेरित किया जा सकता है। Rehnberger ने इस सुरक्षा भेद्यता के लाभ उठाने के तरीके को ZombAIs नाम दिया। एक प्रदर्शन में, उन्होंने सफलतापूर्वक Claud को...

फ्रांसीसी आर्टिफिशियल इंटेलिजेंस स्टार्टअप Mistral AI ने हाल ही में सामग्री समीक्षा के लिए एक नई API लॉन्च की है, जो OpenAI और अन्य उद्योग नेताओं के साथ प्रतिस्पर्धा करने के साथ-साथ बढ़ती हुई AI सुरक्षा और सामग्री फ़िल्टरिंग समस्याओं का सामना करने के लिए है। यह सेवा Mistral के Ministral8B मॉडल पर आधारित है, जिसे नौ विभिन्न श्रेणियों में संभावित हानिकारक सामग्री का पता लगाने के लिए सूक्ष्मता से अनुकूलित किया गया है, जिसमें अश्लील सामग्री, नफरत भरी टिप्पणी, हिंसा, खतरनाक गतिविधियां और व्यक्तिगत पहचान योग्य जानकारी शामिल है।

अबू धाबी की आर्टिफिशियल इंटेलिजेंस और क्लाउड कंप्यूटिंग कंपनी G42 ने हाल ही में स्थानीय सायबर सुरक्षा नेता CPX का अधिग्रहण करने की घोषणा की। यह सामरिक अधिग्रहण G42 के उत्पाद पोर्टफोलियो में मज़बूत सायबर सुरक्षा क्षमताएँ जोड़ेगा, जिससे यह आर्टिफिशियल इंटेलिजेंस मूल्य श्रृंखला में अधिक प्रतिस्पर्धी बन जाएगा। चित्र स्रोत नोट: चित्र AI द्वारा उत्पन्न किया गया, चित्र अधिकार सेवा प्रदाता Midjourney CPX का मुख्यालय अबू धाबी में है, जिसमें 400 से अधिक पेशेवर हैं, जो व्यवसायों, सरकारों और महत्वपूर्ण बुनियादी ढाँचे को सायबर सुरक्षा सेवाएँ प्रदान करने के लिए समर्पित हैं। CPX का समृद्ध अनुभव और विशेषज्ञता।

हाल ही में, कैलिफ़ोर्निया के गवर्नर गेविन न्यूज़म ने एक विवादास्पद AI सुरक्षा विधेयक को वीटो किया, जिसने प्रौद्योगिकी और राजनीतिक हलकों में हलचल मचा दी, और AI नियमन के भविष्य की दिशा पर एक बड़ा प्रभाव डाला। यह विधेयक, जिसे डेमोक्रेटिक राज्य सीनेटर स्कॉट वीटर ने पेश किया था, का मूल उद्देश्य तेजी से विकसित हो रहे AI प्रौद्योगिकियों के लिए सुरक्षा गार्डरेल स्थापित करना था। इसमें उन उन्नत AI मॉडलों के लिए सुरक्षा परीक्षण करने की आवश्यकता थी जिनके विकास की लागत 1 बिलियन डॉलर से अधिक है या जिनके लिए विशिष्ट कंप्यूटिंग क्षमता की आवश्यकता है, और इसमें विकासकर्ताओं को बंद करने का स्विच प्रदान करने की आवश्यकता थी। इसके अलावा, इस विधेयक के तहत एक राज्यस्तरीय मशीन

हाल ही में, OpenAI के CEO सैम आल्टमैन ने घोषणा की कि वह कंपनी की आंतरिक सुरक्षा समिति से इस्तीफा देंगे, जो इस वर्ष मई में स्थापित हुई थी, जिसका उद्देश्य OpenAI के कृत्रिम बुद्धिमत्ता मॉडल के विकास और तैनाती के महत्वपूर्ण सुरक्षा और सुरक्षा निर्णयों की निगरानी करना था। आल्टमैन का यह निर्णय व्यापक ध्यान आकर्षित कर रहा है, वह इस भूमिका को तीसरे पक्ष के विशेषज्ञों के हाथ में सौंपना चाहते हैं ताकि पारदर्शिता, सहयोग और सुरक्षा को बढ़ावा दिया जा सके। आल्टमैन के जाने के साथ, यह सुरक्षा समिति "स्वतंत्र निगरानी समिति" में बदल जाएगी, जो सुरक्षा और सुरक्षा मुद्दों पर ध्यान केंद्रित करेगी। नए अध्यक्ष

लॉस एंजेलेस के वीडियो गेम अभिनेताओं ने 80 गेम डेवलपर्स के साथ एक समझौते पर हस्ताक्षर किए, जिसमें आर्टिफिशियल इंटेलिजेंस के उपयोग पर महत्वपूर्ण शर्तों पर सहमति हुई, जिससे बातचीत में गतिरोध के कारण चल रहे हड़ताल के कार्य को समाप्त किया जा सका। मुख्य मुद्दा एआई प्रौद्योगिकी के संभावित रूप से अभिनेताओं की छवि और आवाज की नकल और अनुचित उपयोग के बारे में चिंता थी। समझौते में वेतन वृद्धि के साथ-साथ एआई के शोषणकारी उपयोग और शारीरिक, आवाज प्रदर्शन के तनाव के खिलाफ सुरक्षा उपाय भी शामिल थे। ग्रेडेड बजट समझौते के कार्यान्वयन ने संघ अभिनेताओं के साथ सहयोग को संभव बना दिया, जो अभिनेताओं के अधिकारों की सुरक्षा करता है। यह समझौता पूरे गेम उद्योग के लिए मील का पत्थर है।